02. 部署案例 - 波士顿房价




现在您已经有了SageMaker模型,我们将学习如何部署这些模型,以便我们的模型可以使用Endpoint进行交互。

  • 详细查看Tutorials文件夹里面是Boston Housing  -  XGBoost(Deploy) -  High Level.ipynb,来试试模型部署。使用high level方法可以非常简单地部署训练有素的模型。在该文档中,我们需要做的就是调用deploy方法,SageMaker负责其余的工作。

同样,将数据发送到已部署的Endpoint并捕获结果推理也很容易,因为SageMaker将所有内容都包含在预测方法中,前提是我们确保正确序列化数据。在我们的例子中,序列化意味着将我们希望发送到我们的Endpoint的数据结构转换为字符串,这可以使用HTTP进行传输。

警告 - 关闭您的部署终点

这非常重要。部署Endpoint的计费基于其运行的时间长度。这意味着如果您不使用Endpoint,则确实需要将其关闭。

  • 此外,您也可以使用low level方法部署模型。此方法要求我们描述端点应具有的各种属性以及应使用哪种推理代码和模型。具体的案例在Tutorials文件夹中查看Boston Housing  -  XGBoost(Deploy) -  Low Level.ipynb。

使用low level方法部署我们的模型需要我们创建一个Endpoint,该Endpoint将用于将数据发送到我们的模型并获得推理结果。

  • 为了在SageMaker中创建端点,我们首先需要描述端点配置。这向SageMaker描述了我们希望端点拥有的各种属性。一旦我们创建了端点配置,我们就可以要求SageMaker使用我们想要的属性创建端点。

  • SageMaker创建的实际端点是运行docker容器的计算实例(某些远程服务器)与其上的推理代码以及可以发送和返回数据的URL的组合。此URL用作计算实例的接口,该接口接收数据,使用我们的模型执行推理并返回结果。